Все още не знаем колко енергия консумира AI
Писателят е откривател и климатичен водещ в AI платформа с отворен код, прегръщащ лицето
С всяка поръчка, генериране на изображения и диалог за чатбот, силата, която се употребява от изкуствения разследващ модели, нараства. Вече излъчванията от центрове за данни, нужни за образование и даване на AI услуги, се правят оценка на към 3 на 100 от общата обща световна, близка до основаната от авиационната промишленост.
, само че не всички модели на AI употребяват същото количество сила. Специфични за задачата AI модели като Tinybert на Intel и прегръщането на Face's Distilbert, които просто извличат отговори от текст, употребяват незначителни количества енергия-около 0,06 вата час на 1000 поръчки. Това е еквивалентно на стартирането на LED крушка за 20 секунди.
В другите крайни, огромни езикови модели като GPT-4 на Openai, Anthropic's Claude, Meta's Llama, Deepseek или Qwen на Alibaba употребяват хиляди пъти повече сила за една и съща поръчка. Резултатът е като да включите прожекторите на стадиона, с цел да търсите вашите ключове.
Защо има толкоз голяма разлика в потреблението на сила? Тъй като LLM не намират единствено отговори, те ги генерират от нулата, като рекомбинират модели от солидни набори от данни. Това изисква повече време, пресмятане и сила от търсене в интернет.
Измерването тъкмо какъв брой огромен е всеки модел на AI и какъв брой сила употребява, е мъчно. Компаниите със системи със затворен код, като Gemini на Гугъл или Anthropic's Claude, не вършат кода си обществено наличен и са защитни от тази информация. Ето за какво Интернет е цялостен с непроверени изказвания за количествата сила и вода, от които изискват поръчките за чатбот, и по какъв начин това се съпоставя с търсене в интернет.
Проектът за енергийна оценка на AI, съдействие сред Salesforce, Hugging Face, AI разработчик Cohere и университет Carnegie Mellon, е опит да се хвърли повече светлина върху въпроса посредством създаване на типов метод. Кодът е отворен и наличен за всеки достъп и способства. Целта е да се насърчи общността на AI да тества допустимо най -много модели.
Чрез разглеждане на 10 известни задания (като генериране на текст или аудио транскрипция) на AI модели с отворен код е допустимо да се изолира количеството сила, употребявано от компютърния хардуер, който ги ръководи. Това са присвоени резултати, вариращи сред една и пет звезди въз основа на тяхната относителна успеваемост. Между най-най-ефективните AI модели в нашата извадка открихме 62 000 пъти разлика в нужната мощ.
Тъй като планът започва през февруари, нов инструмент съпоставя потреблението на силата на поръчките за чатбот с ежедневни действия като зареждане на телефон или шофиране като метод да помогне на потребителите да схванат въздействието върху околната среда на технологията, която употребяват всекидневно.
Техническият бранш е наясно, че излъчванията на AI излагат своите климатични задължения в заплаха. Както Microsoft, по този начин и Гугъл към този момент не извършват своите чисти нулеви цели. Досега обаче никоя огромна софтуерна компания не се е съгласила да употребява методологията, с цел да тества личните си AI модели.
Възможно е AI моделите един ден да оказват помощ в битката против изменението на климата. AI Systems, основани от компании като DeepMind, към този момент проектират слънчеви панели от последващо потомство и акумулатори, усъвършенстват разпределението на електрическата мрежа и понижават интензивността на въглеродния въглерод на производството на цимент.
Техническите компании също се насочват към по -чисти енергийни източници. Microsoft влага в атомната електроцентрала с три благи острови, а писмеността се занимава с по -експериментални подходи, като дребни модулни нуклеарни реактори. През 2024 година софтуерният бранш способства за 92 на 100 от новите покупки на чиста сила в Съединени американски щати.
Но е нужна по -голяма изясненост. Openai, Anthropic и други софтуерни компании би трябвало да стартират да разкриват потреблението на сила на своите модели. Ако те се съпротивляват, тогава се нуждаем от законодателство, което би направило сходни оповестявания наложителни.
Докато повече консуматори взаимодействат с AI системи, би трябвало да им се дават инструментите, с цел да схванат какъв брой сила употребява всяка поръчка. Знаейки, че това може да ги направи по -внимателни по отношение на потреблението на AI за непотребни задания като търсене на столица на нацията. Повишената бистрота също би била тласък за фирмите, разработващи услуги, захранвани от AI, с цел да изберат по-малки, по-устойчиви модели, които дават отговор на техните характерни потребности, а не по дифолт на най-големите, най-енергийни варианти.
AI съставлява една от най-големите софтуерни пробиви на нашето време. Това ще революционизира живота ни. Но технологията идва с екологичните разноски, които би трябвало да се изяснят както за потребителите, по този начин и за политиците. В тази епоха на климатичната рецесия, което прави енергийното потребление на AI по -прозрачно е от значително значение.
